1

Visão Geral do Curso: Incerteza na Era da GenAI

PolyU COMP5511Lecture 5
00:04

A Aula 5 marca uma mudança decisiva em COMP5511. Estamos nos afastando da lógica determinística da computação clássica e da certeza supervisionada dos primeiros modelos de classificação para adentrar o coração probabilístico da IA Generativa. Nesta sessão, exploramos por que os modelos modernos de IA não produzem "fatos", mas sim distribuições de probabilidade, desvendando os mecanismos que permitem aos LLMs escrever poesia e aos modelos de difusão pintar a partir do ruído.

1. A Mudança de Paradigma: Da Lógica à Probabilidade

  • Além do IF-THEN: A transição de regras rígidas para probabilidades estatísticas fluidas.
  • O Fim da Certeza: Entender por que os resultados da GenAI são não determinísticos por concepção.
  • A Probabilidade como Ferramenta: Como a "Era da GenAI" trata a incerteza como um recurso para a criatividade, em vez de um defeito a ser corrigido.

2. Os Motores Probabilísticos da Criação

A IA Generativa baseia-se na amostragem de espaços de probabilidade de alta dimensionalidade. Seja gerando texto ou imagens, o modelo navega pela incerteza para produzir novidade:

  • Grandes Modelos de Linguagem (LLMs): Prever o próximo token não como uma escolha única, mas como uma distribuição de possibilidades.
  • Modelos de Difusão: A arte de engenharia reversa da ordem a partir do caótico ruído Gaussiano.
  • O Processo de Amostragem: Como a aleatoriedade é aproveitada para evitar resultados repetitivos e "robóticos".

3. Agentes em Mundos Imprevisíveis

Agentes Autônomos precisam navegar por "Mundos Abertos" onde cada ação carrega um grau de risco e recompensa desconhecidos.

O Trade-off da Alucinação
Modelos puramente determinísticos são seguros, mas carecem de pensamento original. Ao abraçar a incerteza, possibilitamos a criatividade, mas também introduzimos o risco de Alucinações—em que o modelo gera com confiança informações plausíveis, porém falsas.
Lógica Conceitual de Amostragem
1
Define functionGenerate_Response(Prompt,Temperature):
2
Calculateprobability distribution for all possible next tokens;
3
Adjust distribution based on Temperature(Higher = more diverse, Lower = more focused);
4
Select next token using Weighted Random Choice;
5
Repeat until completion.
Probabilistic Modeling
Modern AI views the world through the lens of statistics rather than binary truths.
Gallery Image